AMD a récemment lancé sa dernière série de processeurs APU Strix Point, soulignant ses performances exceptionnelles dans les applications de modèles linguistiques volumineux (LLM) basés sur l'IA, surpassant largement la série de processeurs Intel Lunar Lake. La demande croissante en matière de charge de travail IA intensifie la concurrence dans le secteur du hardware. Pour répondre aux besoins du marché, AMD a introduit un processeur IA conçu pour les plateformes mobiles, visant des performances supérieures et une latence réduite. AMD affirme que la série ix Point de Ryzen...

Intel a dévoilé lors du salon IFA son premier processeur mobile Lunar Lake atteignant les objectifs de performance de Microsoft Copilot +, offrant une capacité de calcul IA allant jusqu'à 120 TOPS. Il affiche une amélioration de 14 % des instructions d'horloge des cœurs de performance et de 68 % des performances des cœurs d'efficacité. Les performances du processeur graphique sont améliorées d'environ 50 % par rapport à la génération précédente. Comparé à AMD, Lunar Lake offre des performances similaires dans les tâches graphiques intensives comme les jeux, mais avec une consommation d'énergie réduite d'environ 30 %. Face à Qualcomm, il surpasse en performances.

Google a procédé à une mise à niveau majeure de son chatbot IA Gemini afin d'améliorer ses performances, d'élargir sa prise en charge linguistique et sa couverture. La version Gemini 1.5 Flash est disponible dans 40 langues et 230 pays et territoires, avec une amélioration significative de la qualité et de la vitesse de réponse, notamment en matière de raisonnement et de compréhension d'images. Cette mise à niveau comprend l'extension de la fenêtre contextuelle à 32 000 jetons, la prise en charge de la fonction de téléchargement de fichiers et l'affichage de liens vers des pages Web pertinentes sous les réponses générées afin d'améliorer la transparence. Les fonctionnalités de Gemini seront étendues à davantage de domaines d'application.

Les performances des grands modèles de langage augmentent avec le nombre d'agents instanciés. Plusieurs petits modèles surpassent les performances d'un grand modèle. Les résultats expérimentaux montrent que l'intégration de plusieurs petits modèles LM peut atteindre ou même surpasser les performances des grands modèles LM. L'article examine la relation entre l'amélioration des performances et la difficulté du problème. Les auteurs proposent deux stratégies d'optimisation : l'échantillonnage et le vote progressifs, et l'échantillonnage et le vote hiérarchiques.

Google a lancé sa nouvelle puce IA, Cloud TPU v5e. La TPU v5e offre des performances de formation et d'inférence efficaces à moyenne et grande échelle. Jeff Dean souligne que l'amélioration des performances du matériel IA est de plus en plus difficile.